2022年頃から、IT分野の人々の間では、人工知能技術の1つである「生成系AI」技術が話題になっています。この技術は、コンピュータにインターネット上に公開されている情報を入力として、その特徴を学習させて、人間が作成する文書、人間が作成する音楽、人間が作成する絵画などのコンテンツを作成させる方法です。最近では、人間が話す言葉を学習させて、まるで本人が話しているかのように音声を作り出す技術も開発されています。

この技術を応用すると、ウクライナのゼリンスキー大統領が話す映像、彼が話すスピーチの原稿、彼が話す言葉の音声を作り出し、あたかもゼリンスキー大統領自身が、彼の声明を読み上げているかのように見えるビデオ画像を作り出すことができます。実際に、そのようにして作られた映像が、ロシアの技術者によって制作され、世界に流された事件も発生しました。

2023年の夏、米国ワシントンにある国防総省の庭に、ロケット砲のような物体が飛来し、黒煙が立ち上がっているかのような映像が、インターネット上に拡散され、米国のテレビ局番組などでも報道され、ニューヨーク証券取引所に上場されている大手企業の株価が、一時的に数百ドル急落した事件が起こりました。ここれも、生成系AIによって生成された画像でした。

もはや、単なる遊び心で作られたビデオ画像が、世界経済や世界政治を動かしてしまう事件を生み出しかねない時代に成りつつあります。イソップの「オオカミ少年」の時代のような嘘ではすまなくなっているのです。悪意のない嘘でも、それがどのような社会的な問題を発生するのかを予知することは難しいのです。かつて日本社会でも、電車の中での、女子高校生の他愛のない噂話から、地方の信用金庫が経営危機に追い込まれた事件が起きています。